Tag: AI 윤리

* 인공지능(AI) 환각 현상과 허위 인용 문제가 과학 연구에 침투하여 학문적 진실성을 훼손하는 심각한 문제로 대두됨. * AI 기반 논문 공장(paper mill)의 등장으로 대량 생산된 조작된 연구 자료가 학계에 유통되어 피어 리뷰 시스템의 신뢰도를 저하시킴. * AI 도구의 발전으로 인해 연구자들은 AI가 생성한 허위 정보를 식별하고, 연구 결과의 진위를 검증하는 데 어려움을 겪고 있음. * AI 기술의 악용에 대한 경각심을 높이고, 학문적 진실성을 보호하기 위한 AI 윤리 및 연구 무결성 강화 방안 마련이 시급함.

* AI 생성 콘텐츠 마켓플레이스인 Civitai에서 특정 여성의 딥페이크 제작을 위한 맞춤형 파일 거래가 이루어지고 있다는 사실 확인. * Civitai는 딥페이크 콘텐츠 요청을 인지하고 있지만, 사용자 신고에 의존하는 소극적인 관리 시스템 운영 중. * 벤처 캐피털 Andreessen Horowitz의 투자에도 불구하고, Civitai는 불법적인 콘텐츠 확산 방지에 미흡한 대응 보임. * 딥페이크 관련 법적 책임 소재가 불분명하며, 아동 성 학대물과 달리 성인 딥페이크에 대한 규제 및 관심 부족 현상 심화.

* 구글의 AI 기술인 제미니(Gemini)가 이스라엘 군사 계약 업체의 드론 영상 분석에 활용되어 자체 정책 위반 의혹 제기. * 구글이 공개적으로 이스라엘 군과의 협력을 거부했음에도 불구하고, 실제로는 군사적 목적에 부합하는 기술 지원을 제공했다는 내부 고발 내용 확인. * 구글의 AI 윤리 원칙과 실제 사업 운영 간의 이중 잣대 논란으로 투자자와 규제 당국의 관심 집중. * 미국 빅테크 기업들의 이스라엘 군사 지원 관련 논란 확산 및 사회적 책임에 대한 재고 요구 증대.

* 구글 제미나이가 다른 AI 챗봇의 대화 기록을 가져오는 'AI 챗봇 데이터 가져오기' 기능 테스트를 통해 사용자 편의성 증대. * 기존 AI 플랫폼 간 데이터 이전의 어려움 해소 및 사용자 전환 장벽 완화 기대. * 제미나이 이미지 생성 기능의 해상도 옵션 확장 (2K, 4K)을 통해 고품질 이미지 활용 가능성 제시. * AI 생성 콘텐츠의 진위 여부 확인을 위한 'Likeness' 기능 개발을 통해 AI 윤리 및 신뢰성 확보 노력.

* OpenAI가 10,000개의 에이전트와 약 1,500만 달러의 비용을 투입해 Navier-Stokes 방정식을 해결하며, 창의적 접근보다 막대한 자본과 컴퓨팅 자원을 활용한 '물량 공세'식 문제 해결 양상을 보임 * Anthropic의 Claude가 29,500개의 소정리를 증명하고 기존 페르마의 마지막 정리 증명을 형식화하는 등, AI가 학문적 난제 해결 속도를 가속화하며 2026년을 수학계의 결정적 분기점(annus mirabilis 또는 annus horribilis)으로 만드는 흐름 * 수학자의 역할이 새로운 이론을 발견하는 '창조자'에서 AI가 쏟아낸 증명을 확인하고 감사하는 '회계사(Accountant)' 혹은 '검증자'로 격하되는 직무 변화와 이에 따른 전문성 상실 우려 * AI를 활용한 과제 해결이 가능해짐에 따라 전통적인 학부 교육의 평가 체계가 무력화되었으며, 성과 선점 경쟁으로 인해 연구자들이 데이터를 공유하지 않는 '폐쇄적 연구 문화'가 확산됨 * 빅테크 기업들이 IPO나 홍보를 위해 환경 파괴와 자원 낭비를 감수하며 기술력을 과시하는 '미성숙한 놀이터식 자랑'이라는 학계의 강한 비판 제기

* Microsoft AI가 AI 모델 개발 및 배포를 위한 37페이지 분량의 '인간 중심 AI(Humanist AI)' 윤리 강령 초안 공개 * AI 모델이 인간의 통제를 넘어서지 않도록 의식 모방, 법적 인격 추구, 자체 목표 설정 등을 명시적으로 거부 * CBRNE 무기 개발 지원, 공격적인 사이버 작전, 아동 안전 침해 등 '절대적 제약'을 설정하여 모델이 준수해야 할 명확한 안전선 제시 * 6주간의 대중 의견 수렴을 통해 윤리 강령을 지속적으로 발전시키고 2027년 이후 모델 개발에 적용할 예정